MemHarness: Memory Is Reconstructed, Not Replayed
记忆应被重构而非回放:基于GRPO的LLM Agent经验动态适配框架
🧭 Agent记忆重构机制
Zhejiang University · Shanghai Artificial Intelligence Laboratory · Fudan University · Shanghai Innovation Institute · Shanghai Jiao Tong University
提出记忆重构范式,让LLM Agent基于当前状态改编检索经验,端到端GRPO训练,防止负迁移并提升OOD鲁棒性
📌 工作参考价值(4 点)
- 在电商对话推荐或搜索Agent中,检索到的历史经验(如成功对话策略、用户偏好)不应原样拼接,可设记忆重构模块,根据当前查询状态动态改写经验,避免性能负迁移。
- 使用GRPO等强化学习算法端到端训练记忆重构策略,使模型学会在适当的时候信任或调整记忆,提升在冷启动或新品类(OOD)场景的鲁棒性。
- 用户行为序列记忆库可与当前上下文结合,生成个性化引导向量,替代静态的偏好嵌入,增强推荐解释性和交互效果。
- 经验重构可作为辅助训练目标,与主任务联合优化,既显式抑制错误记忆干扰,又潜在提升模型内在推理能力,适用于离线策略学习场景。